дифференциальная энтропия распределения вероятностей

 

дифференциальная энтропия распределения вероятностей
Мера относительной неопределенности распределения вероятностей непрерывной случайной величины; ее выражение имеет вид

где Xⁿ = (X₁, …, Х_n) — непрерывная n-мерная случайная величина, w(хⁿ)=w (x₁, …, x_n) — плотность распределения ее вероятностей, а интегрирование ведется по всему множеству значений хⁿ случайной величины Хⁿ.
Примечания
1. Дифференциальная энтропия зависит от метрики пространства значений хⁿ.
2. В частном случае одномерного распределения (n=1) дифференциальная энтропия распределения вероятностей имеет вид

[Сборник рекомендуемых терминов. Выпуск 94. Теория передачи информации. Академия наук СССР. Комитет технической терминологии. 1979 г.]

Тематики

• теория передачи информации

EN

• differential probability-distribution entropy